Tenmu là con trai út của Thiên hoàng Jomei và Thiên hoàng Kōgyoku, em trai của Thiên hoàng Tenji.

Ít ai biết rõ về cuộc đời của ông. Theo các tài liệu cổ là sách Nihon Shoki được con trai ông là hoàng tử Toneri ghi lại, cha qua đời khi ông còn trẻ và người mẹ của ông - Thiên hoàng Saimei. Ông chưa được mong đợi để làm thái tử của vương triều Nhật Bản vì anh trai của ông, hoàng thái tử Nakano Oe (người có công lớn trong Cải cách Taika) sẽ kế vị mẹ mình làm Thiên hoàng kế tiếp. Đến khi anh trai mình (hoàng thái tử Nakano Oe) lên ngôi hiệu là Thiên hoàng Tenji vào cuối năm 655, hoàng tử Oama (tên khai sinh của Tenmu) được anh trai rất tin dùng trong triều đình.

Vài năm sau, hoàng tử Oama được bổ nhiệm làm thái tử kế vị ngôi Thiên hoàng. Điều này được Thiên hoàng Tenji tiên liệu từ trước vì các hoàng hậu của ông, không ai sinh ra hoàng tử cả. Để ngăn chặn tham vọng chính trị của em mình, Tenji buộc em trai phải kết hôn với 3 người con gái của mình vì Tenji nghĩ những cuộc hôn nhân sẽ giúp tăng cường quan hệ chính trị giữa hai anh em. Trong thời gian làm thái tử, hoàng tử Oama tích cực cải tiến tổ chức quân đội Nhật Bản đã được thành lập trong cuộc cải cách Taika[4].

Biến cố xảy ra thay đổi cuộc đời của hoàng tử Oama: Thiên hoàng Tenji lúc về già đã bất ngờ thay đổi ý định, sủng ái hoàng tử Otomo, con trai của ông có với một thứ phi. Kể từ khi hoàng tử Otomo được mẹ mình hậu thuẫn để tạo thành thế lực lớn để lên ngôi Thiên hoàng sau khi cha mất, Thiên hoàng Tenji cảm thấy mình bị ám ảnh, đe dọa về ngai vàng của mình với con trai, em trai mình.

Năm 671, thái tử Oama cảm thấy mình nguy hiểm nên tự nguyện từ chức thái tử để trở thành một nhà sư, Thiên hoàng Tenji trao quyền kế vị cho Otomo. Oama chuyển tới vùng núi ở Yoshino, tỉnh Yamato (nay là Yoshino, Nara) để ẩn dật. Ông đã đưa các con của phu nhân Unonosarara theo, còn những phu nhân và các con còn lại thì để lại kinh đô ở khu vực huyện Omi (nay là tỉnh Otsu).

Đầu năm 672 khi Thiên hoàng Tenji vừa mất và hoàng tử Otomo lên ngôi hiệu là Thiên hoàng Kōbun, hoàng tử Oama đem quân từ Yoshino vượt qua Yamato, Iga và Mino tỉnh để đe dọa Omikyō (huyện Omi) để tấn công cháu trai. Quân đội của hoàng tử Oama và Thiên hoàng trẻ tuổi Kōbun quyết chiến ở Sekigahara, Gifu (tháng 8/672). Sau trận chiến, quân đội của Oama giành thắng lợi và Kōbun đã phải tự tử[5], sử gọi là Chiến tranh Jinshin.